Den Anstoß gab wohl Bayern. Das Bundesland testete Überwachungssoftware von Palantir mit den Daten echter Menschen und bekam dafür Anfang 2024 von der Landesdatenschutzaufsicht auf die Mütze. Im Januar 2025 verabschiedete daraufhin Hamburg eine Gesetzesänderung, die es der Landespolizei erlaubt, „lernende IT-Systeme“ mit persönlichen Daten von Unbeteiligten zu trainieren. Am Mittwoch wird Baden-Württemberg voraussichtlich mit einer ganz ähnlichen Gesetzesänderung nachziehen. Am kommenden Donnerstag steht dann eine fast wortgleiche Gesetzesänderung im Landtag von Nordrhein-Westfalen auf der Tagesordnung.
Auch in Nordrhein-Westfalen sollen demnach eindeutig identifizierende Informationen wie Klarnamen oder Gesichtsbilder in kommerzielle Überwachungssoftware wie beispielsweise die von Palantir eingespeist werden dürfen. Möglich ist so auch das Training von Verhaltens- oder Gesichtserkennungs-Software.
Die Landesdatenschutzbeauftragte Bettina Gayk schreibt in ihrer Stellungnahme zum Gesetzentwurf: „Die vorgesehene Regelung begegnet erheblichen verfassungsrechtlichen Bedenken.“ So sei beispielsweise die Verwendung der Daten von Menschen, die als Zeug*innen, Opfer oder Anzeigenerstattende in der Polizeidatenbank landeten, unverhältnismäßig. Als problematisch sieht sie außerdem, wenn „mit Hilfe der staatlich erhobenen und gespeicherten Daten Produkte kommerzieller Anbieter verbessert werden“.
Der Angriff auf den Datenschutz kommt per Omnibus
Die schwarz-grüne Landesregierung von Nordrhein-Westfalen hat die Trainingsgenehmigung an eine Gesetzesänderung angehängt, die das Bundesverfassungsgericht forderte. Das hatte zuvor festgestellt, dass die im Polizeigesetz von Nordrhein-Westfalen erlaubten längerfristigen Observationen mit Videoaufzeichnung unvereinbar mit dem Grundgesetz sind.
Nordrhein-Westfalen will mit der Überarbeitung des Gesetzes nun die Eingriffsschwelle für derartige Observationen erhöhen und Befugnisse anpassen. Dazu ermöglicht das Gesetzespaket, Datenanalyse-Software wie die von Palantir einzusetzen – ohne die Einschränkungen, die das Bundesverfassungsgericht fordert. Die Erlaubnis zur „Entwicklung, Überprüfung, Änderung oder zum Trainieren von IT-Produkten“ mit persönlichen Daten wurde im Omnibusverfahren dazu gepackt.
Die jeweiligen Gesetzesänderungen von Nordrhein-Westfalen, Baden-Württemberg und Hamburg ähneln sich stark. Demnach dürfen personenbezogene Daten in allen drei Ländern künftig auch ohne Anonymisierung oder Pseudonymisierung zum Training von Überwachungs-Software genutzt werden, sobald eine entsprechende Anonymisierung oder Pseudonymisierung unmöglich oder nur mit „unverhältnismäßigem Aufwand“ möglich ist. Ob letzteres zutrifft, wird dann wohl durch eine subjektive Einschätzung der Polizeien festgelegt. Die dürfen auch dann identifizierende Informationen verwenden, wenn für den Trainingszweck unveränderte Daten nötig sind.
Datenschutzbeauftragte fordert: Keine identifizierenden Informationen im Software-Training
Laut der Landesdatenschutzbeauftragten von Nordrhein-Westfalen sind die Ausnahmen von der Anonymisierungs- und Pseudonymisierungspflicht so weit, dass sie „in der Praxis letztlich zu keiner Einschränkung führen werden“. Sie fordert, die Nutzung von nicht-anonymisierten oder -pseudonymisierten Daten gänzlich auszuschließen.
Nordrhein-Westfalen, Baden-Württemberg und Hamburg wollen einhellig dennoch auch solche Daten nutzen. Ebenfalls einig sind sich die drei Länder darin, dass die Verwendung von Daten, die aus Wohnraumüberwachung gewonnen wurden, für das Softwaretraining ausgeschlossen ist. Anders als in Hamburg und in Baden-Württemberg gibt es in der Fassung von Nordrhein-Westfalen keine explizite Erlaubnis, die entsprechenden Daten auch an Dritte weiterzugeben.
Man sollte mal nachschauen, wie stark die Grünen möglicherweise mit Lobbies von Palantir oder Peter Thiel verflochten sind inzwischen. Es wirkt kaum mehr wie ein Zufall, dass insbesondere die Bundesländer in denen die Grünen (mit)regieren, besonders radikal bei der Massenüberwachung mit Palantir voranpreschen.
1) Es ist nicht möglich, „gelernte“ Daten aus einer KI zu entfernen, ohne die (Gewichte der) KI komplett zu löschen. Eine Korrektur, etwa nach einem erneuten Verfassungsgerichtsurteil, ist nicht möglich. Löschen bedeutet: alle Investitionen sind verbrannt.
2) Gerade eine KI ermöglicht es, die Pseudoanonymisierung aufzuheben. Da kann man auch direkt die Klarnamen verweden und auf die Fotos draufschreiben.
3) kommerzielle Überwachungssoftware ist in diesen Punkten unkontrollierbar. Niemand kann dauerhaft kontrollieren oder nachvollziehen, was der Hersteller tut.
4) Doch selbst wenn der Hersteller vertrauenswürdig und unfehlbar wäre, die Entscheidungeswege einer KI sind nur bei sehr einfachen Modellen nachvollziehbar. Entscheidungen einer KI sind statistisch – aufgrund der Lernalgorithmen – und nicht logisch.
5) KIs übernehmen unkritisch (mangels Bewußtsein) jedes implizite oder explizite jedes Vorurteil aus den Lerndaten. Mehr noch, die schaffen Verknüpfungen, die gar nicht vorhanden sind (u.A. ganz sicher, wenn die Lerndaten nicht ausreichen oder einen Bias aufweisen). LLM sind per Definition Vorurteilsmaschinen. Sie können prinzpiell gar nicht anders.
Daraus folgt: personenspezifische Daten, etwa Namen, Hautfarbe, Alter, Geschlecht, Herkunft, Vorlieben dürfen keinesfalls in die Lerndaten einfließen. Fotos sind aus diesen Gründen sowieso tabu! Es sei denn, man hängt der „Vorstellung“ an, es gäbe ein „Verbrechergesicht“.
This is new Germany